生命3.0

普通人如何理解未来

AIGCxZhuhai|大妈的多重宇宙

但行

FMHub

Future Maker Hub

未来构建者中继站

大妈

  • 岁数 42+
  • 工作 23+
  • 出版 3+
  • 蟒龄 21+
  • …

学习

IT 行业底色

大学

课本

  • Pascal
  • C
  • C++(毕业设计)

自学

就业向

  • PhotoShop
  • 3DMAX
  • CoreDraw
  • Illustrator
  • …

常州

利诚通讯

  • Flah/ActionScript
  • PHP

上海

讯博数码科技

  • ASP
  • Dreamwaver
  • XML/XSL/CSS/JS/…

社区

blogging

  • NucleusCMS
  • Plone
  • Zope
  • CZUG
2004-0930-effeBDragon

Python

2003~ 啄木鸟

  • mailman
  • MoinMoin 1.4.*
GDD+guido

北京

SINA.com

  • PHP/CVS管理器
  • FreeBSD
  • Linux

Ubuntu

2005~

日用

Ubuntu 5.04 (Hoary Hedgehog)

CPUG

2005 ~

  • BPUG
  • …
  • python-cn@googlegroups

Erlang

2007 ~ 金山

ECUG II

sociallearnlab.org

教育大发现 2008 ~ 2013

社区顾问

开源卫士

2012~13 49期讲座

  • golang
  • node.js
  • OpenResty
  • crx.
  • SAE
  • …

Dart

2013 ~ GDG 珠海

AngularJS ..

Scheme

2017

LISP..Haskell

TypeScript

2018 … Flutter

TFUG 珠海

190214 ~ AI 落地

  • TersnorFlow
  • Keras
  • FAST.ai
  • …

Rust

2019

尝鲜…

Hyperledger

2021

Fabric/Cello/…

未来

.. 好奇什么, 就学什么

Smalltalk

Glamorous Toolkit

好事

开发

本分

  • 3D 动画
  • 职业顿悟
  • …

管理

过程改进

用技术改善技术人生活品质

写作

爱好

  • 22CC
  • 35年前的 Sci-Fi 小说
2009
2013
输出是更残酷的输入

社区

GNU 感召

  • 进入
  • 理解
  • 服务
  • 发起
  • 策划
  • etc.

社群

社区群落 ~> 领域流量

  • 有关联
  • 场景向
  • 自运营
  • …

自怼

DebugUself

有心无心,自然聚集

the force…

分享

有好东西一定给小朋友们分享

莫问

正确地关心人类命运

普通人

  • 如何理解 AI?
  • 如何理解 AI 和人的关系?
  • 如何良构 AI 和人类的未来?
封面
Max Tegmark

Max Tegmark

FLI 联合创始人,董事

  • Future of Life Institute 生命未来研究所
  • 瑞典裔美国物理学家、宇宙学家和机器学习研究员
  • 麻省理工学院教授和基础问题研究所的科学主任
  • 200 多篇技术论文的作者，从认知系统物理学到精确宇宙学和现实的终极本质..
  • 有效利他主义运动的支持者

TED

Scientist, author 科学家、作家

C1:故事开始了

Omega

  • Prometheus
  • 普罗米修斯
  • AGI
  • …统治地球

生命3.0

  • 生命1.0（生物阶段）：靠进化获得硬件和软件
  • 生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的
  • 生命3.0（科技阶段）：自己设计硬件和软件
强AI三派

AI三派

面对 AI

  • Digital Utopians:数字乌托邦主义者 ~ 佩奇
  • Techno-Skeptics:技术怀疑主义者 ~ 吴恩达
  • 人工智能有益运动支持者
    • Members of The Beneficial-AI Movement
    • ~ 图灵

术语

关键厘定

  • 智能 Intelligence ~ 完成复杂目标的能力
  • 人工智能 AI ~ 非生物智能
  • 专用智能 Narrow Intelligence
  • 通用智能 General Intelligence
  • 通用人工智能 AGI ~ 可完成任何认知任务

术语+

  • 人类水平人工智能 Human-level AI
  • 强人工智能 Strong AI
  • 超级智能 SuperIntelligence
  • 文明 Civilization ~ 一组相互影响的智能生命形式
  • 意识 Consciousness 主观体验
  • 伦理 Ethics ~ 制约应当如何行为的原则

术语++

  • 智能爆炸 Intelligence Explosion
  • 奇点 Singularity ~ 弗诺·文奇,“银河界区三部曲”
  • 赛博格 Cyborg ~ 人和机器的混合体
  • 赛博朋克 Cyberpunk ~ “高科技,低生活”
  • …

## C2:智能何来?

人类能力地形
AGI
与非门
构建一切

学习?

  • 什么是记忆?
  • 什么是学习?
  • 持续改变自身组织结构的物质系统…

C3:大突破

  • DeepMind 为首…
  • 太空探索
  • 智能制造…以及挑战|事故
  • 能源..医疗..通讯..
  • 法律
  • 军事…

就业

人类全体失业?

  • 这份工作是否…
    • 需要和人交互?
    • 涉及创造性, 必须由你提出解决方案?
    • 需要你在不可预料的环境中工作?
  • 1900 的两匹马?

C4:智能爆炸

AI 如何统治世界?

  • 1: 构建 AGI
  • 2: AGI 构建 SI
  • 3: 使用/任由SI统治世界

C5:AI世代

各种可能

  • 自由主义乌托邦: 有产权,所有智能和平共处
  • 善意的独裁者: AI 老大哥
  • 平等主义乌托邦: 无产权,所有智能和平共处
  • 看门人: 禁止另外一个 SI
  • 守护神: 隐藏起来的 SI
  • 被奴役的神: 由人完全控制 SI
  • 征服者: 人类是病变
  • 后裔: 允许人类优雅的退出历史

各种可能+

各种可能

  • 动物园管理员: 人类被看护着
  • 1984: 严格禁止 AI,“新卢德分子”/neouddites
  • 逆转: 退回 阿米什人 社会,《基地》
  • 自我毁灭: WWIII
对比

你

想要什么样的未来?

AgeOfAI.org

C6:10亿年后

文明的边界

  • 前苏,宇宙学家卡尔达肖夫基: 宇宙文明级别:
    • 1级: 行星文明, 当前 0.7
    • 2级: 恒星文明, 戴森球,1960年<-1937年《造星者》
    • 3级: 星系文明
  • 后续拓展:
    • 4级: 宇宙文明, 本宇宙 80%+能源
    • 5级: 多重宇宙文明
    • 6级: 神级文明, 构造宇宙
1977,O’Neill圆柱
圆柱内部

能源

一切的基础…

29%
90%
对比

高边疆

1977《高边疆：太空中的人类殖民地》

  • 通过殖民宇宙来获得资源
  • 我们能走多远?
  • 我们能走多快?
  • 我们能活多久?

大筛选

Great Filter

费米悖论 Fermi Paradox

  • 138亿年之后
  • 人类会如何灭绝?

C7:目标

最棘手的问题

  • 宇宙的目标:
    • 趋向生命
    • 趋向热寂
  • 工程|原子 的目标?
    • 1阶: 熵增
    • 2阶: 生命子目标
    • 3阶: 生物重新排列, 物质子目标

目标一致

三大根本难题

  • 让 AI 学习我们的目标
  • 让 AI 接受我们的目标
  • 让 AI 保持我们的目标

~> 友好的人工智能

愿望

通常版本

  • 精怪, 可以实现任意愿望
  • …第三个愿意总是惊人的相似:
  • 收回前两个愿望吧

多数人

主要观点:

  • 功利主义 … 最小化痛苦
  • 多样化 … 最大化体验
  • 自主性 … 自由追求
  • 遗产 … 多数人的幸福观

code2.0

协议, 新法律

  • 机器人三定律
    • 定律1：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管
    • 定律2：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外
    • 定律3：机器人在不违反第一、第二定律的情况下，要尽可能保护自己

未来生命定律

  • 第一定律：一个有意识的实体有思考、学习、交流、拥有财产、不被伤害或不被毁灭的自由
  • 第二定律：在不违反第一定律的情况下，一个有意识的实体有权做任何事

人性中的善良天使

2011, Steven Pinker: The Better Angels of Our Nature

  • 友好的人工智能
    • 终极目标不变:
      • 对人类友好
  • 如何才能赋予超级智能这一目标?

C8:意识

Consciousness

意识＝主观体验（subjective experience）

  • 如果你感觉“这就是现在的我”

信息

意识即信息

  • 意识的物理学基础
    • 记忆
    • 计算
    • 学习
    • 体验
  • 能构造: “意识质”sentronium

意义

“人类例外主义” human exceptionalism

  • 智人 Homo Sapiens
  • 意人 Homo Sentiens

所以

太多关键问题没有充分讨论

2014

FLI

2014 成立

Musk 赞助 1000万$

  • 目标:
    • 引导变革性技术造福生命并远离极端大规模风险
  • 工作领域:
    • 政策
    • 资助
    • 教育
    • 活动
    • …

成果:

阿西洛马人工智能原则

  • 研究问题 1..5
  • 伦理价值 6..18
  • 长期问题 19..23

前程

开始提问

  • 对未来,你的看法?
  • 对AI,你的看法?
  • 身为一个人类的意义是什么?
  • …
2015
2017

达利奥曰:

看待事物的不同方式

  • 以自我为中心
  • 以他人和整体利益为中心

架构

什么是”Architecture”

  • 所有人认为重要的事
  • 系统中难以改变的事
  • …

伟大成果

只能来自伟大的人

  • 如何变得伟大?
  • 如何让人们轻松地做正确的事情?

AIGCxPower

🚀 AI赋能千行百业²⁰²⁵

  • GC: 生成内容
  • G:
    • Generative 生成式
    • Growing 生长式
  • Civilization 文明
  • AI共生文明联盟

PS:

探讨信息化社会中中国传统思想的作用

  • 1998 科学哲学

PPS:

每位学习者

  • 都值得拥有自己的域名
  • CyberSpace 中私人王国
  • 持续输出…
    • 直到突破
ZoomQuiet.io

PPPS:

  • 忘记的必是不重要的
  • 不知道就是不必要的
  • 放弃的是真不上心的
  • 事实往往不是这样的
  • …保持谦虚

(￣▽￣)

幻灯

NOT PPT

slides.zoomquiet.io/AIGCxZh2life3

是也乎

  • 250513 re-pub. slides.zoomquiet.io
  • 221212 pub.
  • 221211 re-factory
  • 221210 append
  • 231130 init.
askDAMA@googlegroups.com

Q&A

askDAMA@googlegroups.com

눈_눈

是也乎

Camp

比来时好

  • 蟒营价值发源自真诚探索
  • 治疗视而不见笔记最有效
  • 不懂就问是课程核心行动
  • 编程实力积累必须要编程
断言v4

内省

不忘初心…

  • 什么是教育?
  • 什么是编程?
一个自毁倾向社区的形成

Blogging 蟒营™ 博客

blog.101.camp/NC/190711-NC101-self-destruction

askdama@googlegroups.com

蟒营®

沿革

  • 2008 PythoniCamp 金山大学
  • 2015 蟒营™课程
  • 2017 DebugUself/自怼圈
  • 2018 蟒营®网络课程开源框架